Ban đầu, người cai trị của Nhật Bản được gọi là Đại Hòa đại vương (大和大王; Yamato-ōkimi; nghĩa là Đại vương của Yamato), Oa vương (倭王; nghĩa là Vua của Oa quốc), hoặc Trị thiên hạ Đại vương (治天下大王; Ame-no-shita shiroshimesu ōkimi hoặc Sumera-no-mikoto; nghĩa là Đại vương cai trị thiên hạ), căn cứ trong nguồn cổ thư của Nhật Bản và Trung Quốc trước thế kỷ thứ VII.

Cụm từ Thiên hoàng (天皇; Tennō hay Sumera mikoto), ảnh hưởng từ cách gọi của Thiên Đế của Đạo giáo, cộng với danh xưng một thời của Đường Cao Tông. Danh xưng này sớm nhất được ghi lại ở Phi Điểu tịnh ngự nguyên lệnh (飛鳥浄御原令; Asuka kiyomi hararyō), được Thiên hoàng Tenmu chế định và công bố vào năm 689. Vì lúc này, Nhật Bản đã hình thành thể chế mô phỏng Trung Hoa, quyền của người đứng đầu đất nước không chỉ gói gọn là Quân hay Đại vương nữa, mà phải dùng Thiên hoàng để biểu thị quyền lực. Nguồn gốc của danh xưng này, theo Nhật Bản Thư Kỷ cho là có từ khi Thiên hoàng Suiko gửi thư ngoại giao với nhà Tùy: "Đông Thiên hoàng kính bạch Tây Hoàng đế" (东天皇敬白西皇帝)[6], thế nhưng khi tra trong sách Trung Hoa lại không hề có thông tin này, không loại trừ khả năng đây là một thông tin hư cấu hóa, tương tự cách viết xuất thân của Thiên hoàng là hậu duệ thần linh.

Danh hiệu Thiên hoàng được sử dụng bởi Thiên hoàng cho đến thời Trung cổ; sau một thời gian không được sử dụng, danh hiệu này được sử dụng lại từ thế kỷ thứ 20, tức thời Thiên hoàng Chiêu Hòa[7]. Trong thời kỳ gián đoạn này, các Thiên hoàng đều sử dụng rất nhiều kính xưng khác nhau, như "Ngự sở" (御所; Gosho), "Cấm Lí" (禁裏; Kinri), vân vân... đều được sử dụng rộng rãi trong tiếng Nhật cũ. Đáng kể nhất là có cụm biệt xưng "Mikado" (御門; Ngự môn), theo nghĩa đen có nghĩa là "cánh cửa tôn kính", tức là cửa của cung điện hoàng gia, dùng để chỉ ra người đang sống và sở hữu cung điện. Danh xưng Mikado cũng là cách đọc của chữ "Đế" (帝) trong danh vị Hoàng đế của Trung Hoa, do đó cụm biệt xưng này đã từng được sử dụng rất rộng rãi trong một khoảng thời gian dài để chỉ các quân chủ Nhật Bản, như trong The Mikado, một vở operetta của thế kỷ 19. Tuy nhiên ngày nay thì biệt xưng này đã lỗi thời và không còn được sử dụng nữa[8].

Đến đầu Thời kỳ Minh Trị (1868), Nhật Bản khi phê chuẩn thư tín, phân bố công văn vẫn dùng danh hiệu "Hoàng đế" (皇帝; kōtei). Sang đến năm Chiêu Hòa thứ 11 (1936), khi thi hành thuyết Đại Đông Á, Nhật Bản bắt đầu luôn sử dụng danh hiệu Thiên hoàng dành cho các Hoàng đế Nhật Bản.

Theo truyền thống của người Nhật, sẽ coi là thiếu tôn trọng nếu gọi tên riêng của bất kỳ người nào, nhất là người có cấp bậc cao quý. Trong trường hợp của gia đình hoàng gia, vẫn được coi là không thích hợp để sử dụng tên riêng. Kể từ thời Minh Trị, theo lệ mỗi Thiên hoàng chỉ dùng một niên hiệu và Thiên hoàng sẽ đổi tên sau khi chết bằng cách sử dụng niên hiệu, cộng với từ Thiên hoàng. Trước thời Minh Trị, niên hiệu được thay đổi thường xuyên hơn và miếu hiệu của Thiên hoàng được lựa chọn theo một cách khác. Bên ngoài Nhật Bản, bắt đầu với Thiên hoàng Chiêu Hòa, các Thiên hoàng thường được gọi bằng tên riêng của họ, ngay cả khi còn sống và sau khi chết. Ví dụ như, Thiên hoàng Chiêu Hoà trước đây thường được gọi là Hirohito trong tiếng Anh, mặc dù ông không bao giờ được gọi là Hirohito tại Nhật Bản, và được đổi tên thành Chiêu Hòa sau khi chết và là cái tên duy nhất mà người nói tiếng Nhật hiện đang sử dụng khi đề cập đến ông.

Thiên hoàng đương nhiệm thường được gọi bằng danh hiệu Tennō heika (天皇陛下; Thiên hoàng bệ hạ) hoặc Kinjō Heika (今上陛下; Kim thượng bệ hạ). Trước đó, khi cụm từ mikado còn thông dụng, đương kim hoàng đế được gọi là Tōgin no Mikado (当今の帝; đương kim chi đế). Các Thiên hoàng (và hoàng hậu) qua các thời kỳ, dẫu là trung cổ hay cận đại, đều sử dụng kính ngữ cổ là bệ hạ (陛下; heika).